还在为找数据而发愁吗?看完这篇你应该再也不会了
关键时刻,第一时间送达!
【作者】:xiaoyu
【介绍】:一个半路转行的数据挖掘工程师
【知乎专栏】:https://zhuanlan.zhihu.com/pypcfx
本文阅读仅需5分钟
学数据分析当然要先有数据,数据是分析的根本,不然一切都是空谈。如果是在公司里,得到数据轻而易举,因为公司有客户,有业务,必然会产生大量数据。但仅仅是个人学习的话,我们如何得到数据呢?
其实这也是好多正在学习数据分析的朋友常会遇到一个问题。一些朋友可能说爬虫可以解决。没错,确实可以通过爬虫来获取一部分信息,但也有局限性,并且每次都爬不但麻烦,也会遇到很多问题,毕竟我们的重点是分析而不是爬虫。
下面博主将珍藏的一些网上公开数据源做一个汇总,帮助有需要数据的朋友们。
1机器学习/数据挖掘
1. 1 Kaggle
https://www.kaggle.com/
Kaggle是无数数据挖掘爱好者喜爱的竞赛平台,它的大标语是:your home for data science。许多大公司与Kaggle合作,提供公开的数据源,并设立奖金,希望数据挖掘爱好者们通过竞赛的方式提供最优方案,解决实际问题。所提供的奖金丰厚,给予比赛最好成绩的前三名选手。
当然,大部分人参加竞赛并不是为了奖金而去,真实的目的是通过实战来提高自己的数据挖掘能力,在与世界各国的爱好者进行切磋的同时,开阔自己的眼界和视野,学习新知识。并且,这些大公司提供的数据源是非常有参考价值的,可以作为实战项目的首选,对求职者也是个很大的帮助。
1.2 天池
https://tianchi.aliyun.com/
国内比较有名的数据挖掘平台了,它是一个数据科学家的社区,由阿里巴巴组织。赛事众多,有奖金支持,并云集了各路国内爱好者和高校研究者的参加。比赛设有初赛,复赛,决赛等关卡,有评委进行把关。平台同样也拥有大量免费的数据集供爱好者们使用。
1.3 数据城堡(DataCastle)
http://www.pkbigdata.com/
同样也是数据科学的竞赛平台,报名后获取任务数据集,也是一个非常好的学习网站。
1.4 SofaSofa
http://sofasofa.io/index.php
虽然竞赛人数和项目都一般,但是作为数据科学社区,提供免费的数据集。并可以在社区内进行技术交流和探讨。
2各行业的数据网站
2.1 世界宏观经济数据
https://knoema.com/
https://data.worldbank.org.cn/
关于世界宏观经济的两个网站,涵盖大量相关数据和学习资源。
2.2 国家统计局
https://www.stats.gov.cn/
数据来源于中国国家统计局,主要涉及我国经济民生等多个方面的数据,并在月度、季度、年度等多维度覆盖,较为全面和权威,对于社会科学的研究非常有帮助。
2.3 CEIC
http://www.ceicdata.com/zh-hans
拥有超过128个国家的经济数据,可以非常精确地查找到各国GDP, CPI, 进口,出口,外资直接投资,零售,销售,以及国际利率等数据。其中,“中国经济数据库”收编了300,000多条时间序列数据,数据内容涵盖宏观经济数据、行业经济数据和地区经济数据。
2.4 万得(Wind)
http://www.wind.com.cn/
万得有“中国Bloomberg”的称号,覆盖了全面的金融业数据,且类目更新非常快,受到很多商业分析者和投资人的亲睐。
2.5 搜数网
http://www.soshoo.com/
拥有海量的统计资料,数量高达7,874本,同时涵盖了1,761,009张统计表格和364,580,480个统计数据,汇集了中国资讯行自92年以来收集的所有统计和调查数据。
2.6 中国统计信息网
http://www.tjcn.org/
国家统计局官网,汇集了海量的全国各级政府各年度的国民经济和社会发展统计信息,建立了以统计公报为主,统计年鉴、阶段发展数据、统计分析、经济新闻、主要统计指标排行等为辅助的多元化统计信息资料库,目前在线资料已达上万份。
2.7 figshare
https://figshare.com/
一个研究成果共享的平台,来自世界的研究成果分享,同时有共享的研究数据。
2.8 OpenStreetMap
https://www.openstreetmap.org/
通过这个网站可以下载世界各地的地图数据。
2.9 极海(geohey)
https://geohey.com/
同样也是可以提供地图信息数据的网站;
2.10 github
https://github.com/caesar0301/awesome-public-datasets
如果还嫌数据源不够,github上有位大神已经为大家整理好了一个非常全面的数据网站汇总,包含各个细分领域的数据资源(非常全),下面只是部分截图。
3总结
其实数据是无处不在的,需要我们平时善于发现和观察。以上是本次向大家分享的免费数据网站,希望对大家能有所帮助。
别光顾着收藏,这么有价值的内容难道不分享转发一下吗?
推荐阅读:
【3】【Kaggle入门级竞赛top5%排名经验分享】— 建模篇
【4】【Kaggle入门级竞赛top5%排名经验分享】— 分析篇
长按二维码 关注Python数据科学发送 「学习资料」,获取经典书籍电子书